Comment OpenAI veut protéger l’élection américaine des dangers de l’IA

Image : Getty Images/PM Images.

2024 a commencé, et avec elle une année exceptionnelle d’élections : plus d’une personne sur deux sera amenée à voter cette année sur la planète. En particulier, la France sera attentive à une élection qui se déroulera outre-Atlantique à l’hiver prochain : la présidentielle américaine. Et, comme si la saison électorale ne présentait pas suffisamment de défis, cette année, un nouveau facteur doit être pris en compte : l’IA générative.

En effet, qu’il s’agisse de texte ou d’image, les progrès de l’intelligence artificielle rendent difficile la distinction entre le vrai et le faux. Et lorsqu’une élection de cette importance a lieu, l’influence sur l’opinion publique des fausses informations, les fameuses fake news, est non négligeable.

C’est pourquoi OpenAI a partagé lundi un billet de blog présentant son approche des élections américaines – et notamment les changements dans les conditions générales d’utilisation de ChatGPT et de ses API.

Authentifier les images

Parmi les points principaux, il est interdit d’utiliser le service d’IA pour créer des applications destinées à faire campagne, à des fins de lobbying ou à dissuader des personnes d’aller voter. OpenAI n’autorise pas non plus la création de chatbots prétendant être de vraies personnes.

Parmi ses objectifs, OpenAI souhaite également proposer des solutions pour aider à déterminer clairement si une image a été créée de toutes pièces ou si elle est réelle. Pour ce faire, l’organisation mettra en œuvre, au début de cette année, les certificats numériques de la Coalition for Content Provenance and Authenticity (C2PA).

Grâce à ces certificats, il sera possible de connaître la provenance d’un contenu grâce à un chiffrement utilisé sur les images générées par DALL-E 3. OpenAI expérimente également un nouvel outil de détection des images générées par DALL-E 3, qui donne déjà des résultats prometteurs.

Combattre la désinformation

Toujours pour combattre la désinformation, OpenAI a affirmé sa volonté de doter ChatGPT d’un accès en temps réel aux reportages d’actualité dans le monde entier.

Concernant l’élection américaine plus particulièrement, ChatGPT redirigera ses utilisateurs et utilisatrices vers CanIVote.org, un site fiable présentant toutes les informations sur le vote aux Etats-Unis (où voter, comment s’inscrire, etc.), lorsqu’une question lui sera posée sur l’élection.

Néanmoins, la plupart de ces mesures n’ont pas encore été mises en place, et sont encore à l’état de projet. Il est donc essentiel de rester prudent concernant les informations qui circulent. Et surtout, avant de partager une information, pour vérifier qu’elle est réelle : vérifiez sa source !

Source : ZDNet.com